2025.7.13 決定木

まずは使ってみよう。

code:py.py

from sklearn.datasets import load_iris

from sklearn.model_selection import train_test_split

from sklearn.tree import DecisionTreeClassifier

X, y = load_iris(return_X_y=True)

X_train, X_test, y_train, y_test = train_test_split(X, y)

model = DecisionTreeClassifier() # モデルインスタンスの生成

model.fit(X_train, y_train) # 訓練

print('# Predict:', model.predict(X_test)) # テスト

print('# Accuracy:', model.score(X_test, y_test)) # 正解率

'''

# Accuracy: 0.9736842105263158

'''

この場合、random_state を設定していないので、実行する度に結果は変わる。

predict_proba メソッドは確率を返す。predict メソッドはこのうちで最も確率の高いクラスを選択することに対応している。

code:p.py

model.predict_proba(X_test)

'''

...

'''

可視化

plot_tree を用いて決定木を可視化する。

code:p1.py

from sklearn.datasets import load_iris

from sklearn.model_selection import train_test_split

from sklearn.tree import DecisionTreeClassifier, plot_tree

import matplotlib.pyplot as plt

X, y = load_iris(return_X_y=True)

X_train, X_test, y_train, y_test = train_test_split(X, y)

model = DecisionTreeClassifier()

model.fit(X_train, y_train)

plot_tree(model)

plt.show()

以下のように装飾してみよう。

グラフサイズを大きくする ... figsize

特徴量の名前を表示する ... feature_names

分類されたクラス名を表示する ... class_names

推定結果に応じてノードに色を塗る ... filledで指定

code:p.py

from sklearn.datasets import load_iris

from sklearn.model_selection import train_test_split

from sklearn.tree import DecisionTreeClassifier, plot_tree

import matplotlib.pyplot as plt

dataset = load_iris()

X, y = dataset.data, dataset.target

X_train, X_test, y_train, y_test = train_test_split(X, y)

model = DecisionTreeClassifier()

model.fit(X_train, y_train)

plt.figure(figsize=(20, 20))

plot_tree(

model,

feature_names = dataset.feature_names,

class_names = dataset.target_names,

filled =True

)

plt.show()

https://scrapbox.io/files/6873a3b64e86f7813b94f52b.png

decision_tree

プロットする決定木

The maximum depth of the representation. If None, the tree is fully generated.

特徴量の名前、If None, generic names will be used (“x0”, “x1”, …).

正解ラベルの名前、Names of each of the target classes in ascending numerical order. Only relevant for classification and not supported for multi-output. If True, shows a symbolic representation of the class name.

不純物などの情報ラベルを表示するかどうか。オプションには、すべてのノードに表示する「すべて」、最上位のルート ノードにのみ表示する「ルート」、どのノードにも表示しない「なし」があります。

True に設定すると、分類の場合は大多数のクラス、回帰の場合は値の極値、マルチ出力の場合はノードの純度を示すためにノードをペイントします。

When set to True, show the impurity at each node.

When set to True, show the ID number on each node.

When set to True, change the display of ‘values’ and/or ‘samples’ to be proportions and percentages respectively.

When set to True, draw node boxes with rounded corners and use Helvetica fonts instead of Times-Roman.

Number of digits of precision for floating point in the values of impurity, threshold and value attributes of each node.

Axes to plot to. If None, use current axis. Any previous content is cleared.

Size of text font. If None, determined automatically to fit figure.

0